Although recent deep learning methods, especially generative models, have shown good performance in fast magnetic resonance imaging, there is still much room for improvement in high-dimensional generation. Considering that internal dimensions in score-based generative models have a critical impact on estimating the gradient of the data distribution, we present a new idea, low-rank tensor assisted k-space generative model (LR-KGM), for parallel imaging reconstruction. This means that we transform original prior information into high-dimensional prior information for learning. More specifically, the multi-channel data is constructed into a large Hankel matrix and the matrix is subsequently folded into tensor for prior learning. In the testing phase, the low-rank rotation strategy is utilized to impose low-rank constraints on tensor output of the generative network. Furthermore, we alternately use traditional generative iterations and low-rank high-dimensional tensor iterations for reconstruction. Experimental comparisons with the state-of-the-arts demonstrated that the proposed LR-KGM method achieved better performance.

通过自我监督的学习预先训练的大型语言模型在各种各样的任务上表现出令人印象深刻的零击功能。在这项工作中，我们介绍了Welm：一种针对中文的精心读取的预训练的语言模型，能够无缝执行不同类型的任务，以零或几次演示。 Welm通过“阅读”涵盖广泛主题的精选高质量语料库来接受10b参数的培训。我们表明，韦尔姆拥有有关各种领域和语言的广泛知识。在18个单语（中文）任务中，WELM可以大大优于现有的预训练模型，尺寸相似，并匹配高达25倍大的模型的性能。韦尔姆还表现出强大的多种语言和代码转换理解的能力，优于预先对30种语言进行预培训的现有多语言模型。此外，我们收集了人工编写的提示，并通过多次培训进行了大量的中文和微调韦尔姆的监督数据集。最终的模型可以实现对看不见的任务类型的强烈概括，并在零射门学习中优于无监督的韦尔姆。最后，我们证明韦尔姆具有解释和校准自己的决策的基本技能，这可能是未来研究的有希望的方向。我们的模型可以从https://welm.weixin.qq.com/docs/api/应用。

The peer merit review of research proposals has been the major mechanism for deciding grant awards. However, research proposals have become increasingly interdisciplinary. It has been a longstanding challenge to assign interdisciplinary proposals to appropriate reviewers, so proposals are fairly evaluated. One of the critical steps in reviewer assignment is to generate accurate interdisciplinary topic labels for proposal-reviewer matching. Existing systems mainly collect topic labels manually generated by principal investigators. However, such human-reported labels can be non-accurate, incomplete, labor intensive, and time costly. What role can AI play in developing a fair and precise proposal reviewer assignment system? In this study, we collaborate with the National Science Foundation of China to address the task of automated interdisciplinary topic path detection. For this purpose, we develop a deep Hierarchical Interdisciplinary Research Proposal Classification Network (HIRPCN). Specifically, we first propose a hierarchical transformer to extract the textual semantic information of proposals. We then design an interdisciplinary graph and leverage GNNs for learning representations of each discipline in order to extract interdisciplinary knowledge. After extracting the semantic and interdisciplinary knowledge, we design a level-wise prediction component to fuse the two types of knowledge representations and detect interdisciplinary topic paths for each proposal. We conduct extensive experiments and expert evaluations on three real-world datasets to demonstrate the effectiveness of our proposed model.

功能转换旨在通过数学转换现有功能来提取良好的表示（功能）空间。应对维度的诅咒，增强模型概括，克服数据稀疏性并扩大经典模型的可用性至关重要。当前的研究重点是基于领域的知识特征工程或学习潜在表示；然而，这些方法并非完全自动化，不能产生可追溯和最佳的表示空间。在重建机器学习任务的功能空间时，可以同时解决这些限制吗？在这项扩展研究中，我们提出了一个用于特征转化的自优化框架。为了取得更好的性能，我们通过（1）获得高级状态表示来改善初步工作，以使加强代理能够更好地理解当前功能集； （2）解决Q值高估的Q值高估，以学习无偏见和有效的政策。最后，为了使实验比初步工作更具说服力，我们结论是通过五个数据集添加异常检测任务，评估各种状态表示方法，并比较不同的培训策略。广泛的实验和案例研究表明，我们的工作更有效和更高。

与传统的详尽搜索相反，选择性搜索第一群集文档将文档分为几个组，然后通过查询对所有文档进行详尽的搜索，以限制在一个组或仅几组中执行的搜索。选择性搜索旨在减少现代大规模搜索系统中的延迟和计算。在这项研究中，我们提出了MICO，这是一个使用搜索日志的最小监督，用于选择性搜索的相互信息共同培训框架。经过培训，MICO不仅会将文档聚集，还可以将看不见的查询路由到相关群集以进行有效检索。在我们的经验实验中，MICO显着提高了选择性搜索的多个指标的性能，并且超过了许多现有的竞争基线。

卷积神经网络可以在语义细分任务中实现出色的性能。但是，这种神经网络方法在很大程度上依赖于昂贵的像素级注释。半监督学习是解决这个问题的有前途的决议，但其表现仍然远远落后于完全受监督的对手。这项工作提出了一个带有三个模块的跨教师培训框架，可显着改善传统的半监督学习方法。核心是跨教师模块，可以同时减少同伴网络之间的耦合以及教师和学生网络之间的错误积累。此外，我们提出了两个互补的对比学习模块。高级模块可以将高质量的知识从标记的数据传输到未标记的数据，并在特征空间中促进类之间的分离。低级模块可以鼓励从同伴网络中的高质量功能学习的低质量功能。在实验中，跨教师模块显着提高了传统的学生教师方法的性能，而我们的框架在基准数据集上的表现优于现行方法。我们的CTT源代码将发布。

手写数学表达识别（HMER）是具有许多潜在应用的挑战性任务。 HMER的最新方法通过编码器架构实现了出色的性能。但是，这些方法符合“从一个字符到另一个字符”进行预测的范式，由于数学表达式或厌恶的手写的复杂结构，这不可避免地会产生预测错误。在本文中，我们为HMER提出了一种简单有效的方法，该方法是第一个将语法信息纳入编码器编码器网络的方法。具体而言，我们提出了一组语法规则，用于将每个表达式的乳胶标记序列转换为一个解析树。然后，我们将标记序列预测建模为具有深神经网络的树遍布过程。通过这种方式，提出的方法可以有效地描述表达式的语法上下文，从而减轻HMER的结构预测错误。在三个基准数据集上的实验表明，与先前的艺术相比，我们的方法实现了更好的识别性能。为了进一步验证我们方法的有效性，我们创建了一个大规模数据集，该数据集由从一万个作家中获取的100k手写数学表达图像组成。该工作的源代码，新数据集和预培训的模型将公开可用。

最近，立体声匹配基准的记录由端到端视差网络不断破碎。但是，这些深层模型的域适应能力非常有限。解决此类问题，我们提出了一种名为ADASTEREO的新型域自适应方法，该方法旨在对准深度立体声匹配网络的多级表示。与以前的方法相比，我们的ADASTEREO实现了更标准，完整有效的域适应管道。首先，我们提出了一种用于输入图像级对准的非对抗渐进颜色传输算法。其次，我们设计一个有效的无参数成本归一化层，用于内部特征级别对齐。最后，提出了一种高效的辅助任务，自我监督的遮挡感知重建以缩小输出空间中的间隙。我们进行密集的消融研究和分解比较，以验证每个提出的模块的有效性。没有额外推断开销，只有略微增加训练复杂性，我们的Adastereo模型在多个基准上实现了最先进的跨领域性能，包括Kitti，Middrbury，Eth3D和驾驶员，甚至优于一些状态 - 与目标域的地面真相Fineetuned的差异网络。此外，基于两个额外的评估指标，从更多的观点进一步揭示了我们域 - 自适应立体声匹配管道的优越性。最后，我们证明我们的方法对各种域适配设置具有强大，并且可以轻松地集成到快速适应应用方案和现实世界部署中。

本文调查了从紧凑型代表和存储训练参数的角度来看深神经网络（DNN）压缩。我们探讨了用于DNN参数的跨层架构 - 不可知表示共享的先前被忽视的机会。为此，我们从DNN架构中解耦了前馈参数并利用添加量量化，用于图像描述符的极端损耗压缩方法，以紧凑地表示参数。然后，在任务目标上是Fineetune的，以提高任务准确性。我们对MobileNet-V2，VGG-11，Reset-50进行了广泛的实验，具有用于分类，检测和分割任务的修剪培训的Pruned DNN。概念上简单的方案始终如一地优于迭代非结构化修剪。在ILSVRC12分类挑战上以76.1％的高精度应用于Reset-50，它实现了7.2美元的价格，没有准确性损失和15.3美元的准确度。进一步的分析表明，在网络层中可能经常发生表示共享，并且整个DNN的学习共享表示可以以与多个单独的部分压缩模型相同的压缩比以相同的压缩比实现更好的精度。我们释放Pytorch码以促进资源受限设备上的DNN部署，并对DNN参数的有效表示和存储的未来研究。

多任务学习（MTL）通过在任务之间共享参数共同学习一组任务。这是降低存储成本的一种有希望的方法，同时提高许多计算机视觉任务的任务准确性。 MTL的有效采用面临两个主要挑战。第一个挑战是确定在任务中共享哪些参数，以优化内存效率和任务准确性。第二个挑战是在不需要耗时的手动重新实现和重要的域专业知识的情况下自动将MTL算法应用于任意CNN主链。本文通过开发第一个编程框架AutoMTL来应对挑战，该框架自动化有效的MTL模型开发为视觉任务。 AUTOMTL作为输入作为任意的骨干卷积神经网络（CNN）以及一组学习的任务，并自动生成一个多任务模型，该模型同时实现了高精度和较小的记忆足迹。在三个流行的MTL基准测试（CityScapes，NYUV2，Tiny-Taskonomy）上进行的实验证明了AutoMTL对最先进方法的有效性以及在CNN跨CNN的AutoMTL的普遍性。 AutOmtl是开源的，可在https://github.com/zhanglijun95/automtl上找到。